Первый храм на этом месте был построен в 1408 году, и как большинство средневековых храмов он много раз разрушался, горел, восстанавливался заново. Современное здание было возведено орденом доминиканцев в середине XVIII века, и с архитектурной точки зрения не представляет ничего особеного. Внутренние интерьеры в стиле барокко, наоборот, роскошны и очень красивы. Орган костела – старейший в Литве, был изготовлен   кенигсбергским мастером Адамом Каспарини, и дошел до наших дней почти без  изменений.

Костел знаменит своими  подвалами – целым лабиринтом галерей, расходящихся в несколько ярусов. Там лежат останки нескольких тысяч человек, погибших от чумы в XVII веке. Из-за особого микроклимата они не разложились, а подверглись мумификации. Одно время в подземельях проводили туристические экскурсии, однако потом их прекратили по эпидемиологическим соображениям.